Маргарет Мичъл: Изкуствената обща интелигентност е „просто вибрации и змийско масло“

Маргарет Мичъл, откривател и основен академик по нравственос от разработчика на изкуствен интелект и взаимна платформа, прегръщащо лице, е пионер в виновен и етичен AI.

Един от най -влиятелните разкази към обещанието на AI е, че един ден ще можем да изградим системи за изкуствена обща просветеност (AGI), които са най-малко толкоз способни или интелигентни като хората. Но концепцията е двусмислена в най -добрия случай и съставлява доста опасности, твърди Мичъл. Тя основава и ръководеше екипа на AI на Гугъл, преди да бъде отхвърлен през 2021 година

В този диалог с кореспондента на AI Melissa Heikkilä на Financial Times, тя изяснява за какво се концентрира върху хората и по какъв начин да им помогне да бъде централна за развиването на AI, а не да се концентрира върху технологията.

Melissa Heikkilä: Вие сте пионер в AI Ethics от 2017 година, когато основавате виновен екип на AI Ethics на Гугъл. В това време преминахме през няколко разнообразни стадия на AI и нашето схващане за виновния AI. Бихте ли могли да ме преведете през това?

Маргарет Мичъл: с нараствания капацитет, който излезе от надълбоко обучение-това е към 2012-13-куп от нас, които работеха върху машинното образование, което в основата си в този момент се назовава AI, в действителност виждаше по какъв начин има солидна смяна в парадигмата в това, което успяхме да създадем. 

Преминахме от това, че не успяхме да разпознаем птица, с цел да можем да ви разкажем всичко за птицата. Много дребен набор от нас стартира да вижда проблемите, които се появяват въз основа на това по какъв начин работи технологията. За мен евентуално беше към 2015 година или по този начин, където видях първите проблясъци на бъдещето на AI, съвсем там, където сме в този момент. ; Например, в случай че една система научи, че бял човек е човек и че черният човек е черен човек, тогава е теоретичен, че Уайт е по дифолт. И това носи със себе си всевъзможни проблеми. 

Един от моите „ аха “ моменти беше, когато видях, че системата ми счита, че тази солидна детонация, която в последна сметка наранява 43 души, е красива, тъй като прави лилави и щипки в небето [след] е научила залети!

Така че ми беше толкоз ясно, че бяхме с цялостна скорост напред в посока да създадем тези системи по -по -мощни, без да разпознаваме сериозната връзка сред приноса и изхода и резултатите, които ще има върху обществото. 

И по този начин, започнах това, което в този момент се назовава виновен AI или етичен AI. Ако сте на напред във времето и виждате казуса и никой различен не обръща внимание на казуса, вие сте като: „ Предполагам, че имам отговорност да направя нещо тук. “ На напред във времето на технологиите имаше дребен набор от хора, които в последна сметка породиха виновен ИИ. 

[Компютърен академик и създател на Advocacy Body Algorithmic Justice League] Joy Buolamwini беше различен, който беше отпред на работата по лицето [признание]. Тогава тя видя същия тип проблеми с пристрастията, които виждах по метода, по който хората се разказват. За нея това беше по какъв начин се откриват лица. 

AI Exchange

Това въртене от нашата известна серия от разговори на софтуерния продан преглежда изгодите, рисковете и етиката на потреблението на изкуствения разсъдък, като приказваме за тези в центъра на нейното развиване. Гебру, с който съм ръководел екипа на Гугъл Ethical AI, започваше да осъзнава тази технология, върху която тя работи, може да бъде употребена за проучване на хората, с цел да сътвори непропорционална щета за хора с невисок приход. 

MH: Спомням си тази епоха добре, тъй като започнахме да виждаме доста промени, фирмите, прилагащи способи за намаляване на тези вреди. Видяхме първата вълна на контролиране. Сега съвсем се усеща, че сме създали 10 стъпки обратно. Как това ви кара да се чувствате?

mm: в границите на технологиите и с обществото като цяло това за всяко деяние има реакция. Интересът към етиката и виновен AI и правдивост беше нещо, което беше прелестно изненадващо за мен, само че и това, което видях като част от махалото. Опитахме се да създадем колкото се може повече позитивно влияние, до момента в който времето беше узряло за това. 

Започнах да работя по тези неща, когато никой не се интересуваше от него и се натискаше назад към него като нещо, което е загуба на време. Тогава хората се вълнуваха от това, с помощта на работата на моите сътрудници, на вашето отчитане. [Стана] диалог за масата за вечеря. Хората [научиха] за пристрастия и AI. Това е необикновено. Никога не бих си помислил, че бихме създали толкоз огромно влияние. 

[но] в този момент [регулатори и индустрия] реагират и не се грижат още веднъж за [етика]. Всичко това е единствено част от махалото. 

Махалото ще се върти още веднъж. Вероятно няма да е следващият солиден размах в другата посока, до момента в който няма много ужасни резултати, единствено по метода, по който обществото има наклонност да се движи и регулирането има наклонност да се движи, което има наклонност да бъде реактивна. 

Така че, да, това е разочароващо, само че за нас е в действителност значимо да запазим непрекъснатото барабанно на това, което са проблемите и да го изяснят, тъй че да е допустимо технологията да се върне обратно по метод, който [взема предвид] публичните резултати. 

MH: Разглеждайки актуалното потомство технологии, каква щета очаквате? Какво ви държи през нощта? 

mm: Е, има доста неща, които ме поддържат през нощта. Не всички от тях даже са свързани с технологията. Сега сме в позиция, в която технологията ни кани да раздадем доста частна информация, която по-късно може да се употребява от злонамерени участници или от държавни участници, които да ни навредят. 

Тъй като технологията направи допустимо хората да бъдат по -ефективни или да имат по -голям обсег, да бъдат по -свързани, това също идва със загуба на дискретност, загуба на сигурност към типа информация, която споделяме. Така че е изцяло допустимо типовете информация, която пускаме и споделяме в този момент да се употребяват против нас. 

Това е всичко-от прекъсване на границата да влезе в страната, тъй като сте споделили нещо отрицателно за някого онлайн, до неконсенсуална интимна информация или порнография на Deepfake, която излиза, която нормално се употребява за възмездие на дамите.

с растежа на софтуерните благоприятни условия настъпи напредък в персоналната щета на хората. И в действителност се тормозя по какъв начин това може да стане все по -интензивно през идващите няколко години

с растежа на софтуерните благоприятни условия е настъпил напредък на персоналните вреди на хората. Наистина се тормозя по какъв начин това може да стане все по -интензивно през идващите няколко години. 

MH: Един от допринасящите фактори за целия този взрив на AI, който виждаме в този момент, е тази фикс идея за AGI. Наскоро сте събрали документ, в който в детайли разказва по какъв начин промишлеността не би трябвало да вижда AGI като водещ принцип или „ North Star “. Защо това е?

mm: Проблемът е, че AGI всъщност е роман. Само терминът „ просветеност “ не е термин, който има консенсус за това какво значи, а не в биологията, а не в логиката на психиката, сигурно не в границите на образованието, в границите на образованието. Това е термин, който от дълго време е оспорван и нещо, което е нереално и мъгляво, само че от самото начало, през цялото говорене за разузнаване, се употребява за делене на хауве и не са сегрегационни сили. 

Но на по-високо равнище интелигентността като идея е неприятно дефинирана и е проблематична. Само този аспект на AGI е част от това, за какво стрелбата за него е малко изпълнена, тъй като действа, с цел да даде въздух на позитивност, на добрина. Той ни обезпечава [с] корица на нещо положително, когато в действителност това в действителност не е съответно нещо и вместо това дава роман за напредването на каквато и да е технология, която желаеме да продължим напред, като хора в позиции на власт в софтуерната промишленост. 

Тогава можем да разгледаме термина „ Общ “. Общият също е термин, който в подтекста на AI няма доста ясно значение. Така че можете да помислите единствено във връзка с всеки ден. Ако имате общи познания за нещо, какво значи това? Това значи, че знаете за математиката, науката, британския. 

Бих могъл да кажа, че имам общо разузнаване, само че че не знам нищо за медицината, да вземем за пример. И по този начин, в случай че бях технология, която ще се употребява на всички места, мисля, че е доста ясно да се знае, добре, мога да ви оказа помощ да редактирате есето си, само че не мога да направя интервенция. Толкова е значимо да разберем, че военачалник в действителност не значи добър във всичко, за което вероятно можем да се сетим. Това значи положително в някои неща, измерени на индикатори за съответни тематики въз основа на характерни тематики. 

AGI като цяло е единствено супер проблематична идея, която обезпечава въздух на обективност и позитивност, когато в действителност отваря вратата на технолозите просто да вършат каквото си желаят.

MH: Да, това е в действителност забавно, тъй като ние сме продадени на това Super AI. И в прочут смисъл доста откриватели на ИИ, това е, което стимулира тяхната работа. Това нещо, за което може би сте мислили по -рано в кариерата си? 

mm: Едно от главните неща, които забелязах като някой в ​​технологичната промишленост, е, че ние развиваме технология, тъй като обичаме да го вършим. Правим Post Hoc пояснения за това по какъв начин това е отлично за обществото или каквото и да е, само че по принцип е просто в действителност занимателно.

Това е нещо, с което се боря, защото някой, който работи по интервенция за нравственос, само че в действителност, това, което най -много обичам, е програмирането. Толкова пъти ще видя хората, които развиват неща и да са като, о, боже, това е толкоз занимателно, бих желал да го направя. Освен това е толкоз етично проблематично, че не мога да го направя.

Мисля, че тази част от това нещо за това по какъв начин ние преследваме AGI, за доста хора, това е пост -хок пояснение на това, че просто вършат това, което обичат, което е напреднало технологията. Казват, че има тази Северна звезда, има това, към което се стремим, това е някакъв съответен миг, който ще ударим, само че не е по този начин. Просто е, ние напредваме технологията, като се има поради там, където сме в този момент, без в действителност надълбоко да мислим къде отиваме. 

Мисля, че има хора, които имат метафизичен или може би религиозни вярвания в AGI като висшо създание. Мисля, че в по -голямата си част хората в технологиите просто се забавляват за разрастващите се технологии.

MH: Когато се замислите за крайната цел на AI, какво е това? 

mm: Произхождам от декор, фокусиран върху AAC (помощна и увеличение на комуникацията). И това е от проучване на езиковото генериране. 

Работих върху производството на езици години и години и години, от 2005 година, когато бях подграден, за първи път се разминах над него и написах тезата си там. И аз продължих да виждам AI през обектива на, по какъв начин това може да помогне и да усили хората? Това може да се преглежда като цялостен контрастност, по какъв начин може да размени хората? 

Винаги споделям, че е значимо да допълвате, а не да се заменя. Това идва от това мнение, че главната цел на технологията е да помогне за благосъстоянието на индивида. Това е да се помогне на хората да процъфтяват. Агите, разказът на AGI, заобикаля, че и вместо това в действителност слага технология вместо хората. 

За мен AI би трябвало да бъде аргументиран и центриран върху индивида и по какъв начин най -добре да оказа помощ на индивида. Но за доста хора той е учреден и концентриран върху технологията. 

Терминът AGI се употребява по метод, който дава заблуда, че има общо схващане на това, което значи и да се направи, че е В неспокойствие от нещата и по-късно бъдете като, о, чакайте, това е извънредно за мен. Сякаш компютърният академик простак в мен към момента се вълнува от нещата. 

Но също по този начин, по тази причина е значимо да се ангажирате с хора, които по -отразяват гражданското общество и са изучавали обществената просвета, са по -запознати със обществените придвижвания и просто въздействието на технологиите върху хората. Защото е елементарно да загубите от взор [It], в случай че сте просто в границите на софтуерната промишленост. 

MH: В документа си изложихте аргументи, заради които този роман на AGI може да бъде много нездравословен и другите клопки, които дефинира. Какво бихте споделили главните вреди на този роман a

Източник: ft.com